1-bit Bonsai
https://prismml.com/news/bonsai-8bAnnouncing 1-bit Bonsai: The First Commercially Viable 1-bit LLMs
1-bitBonsai 8Bはネットワーク全体に独自の1-bitモデル設計を実装しています。埋め込み、注意層、MLP層、LMヘッドはすべて1-bitです。高精度な脱出ハッチはありません。これは82億のパラメータにわたる真の1ビットモデルであり、エンドツーエンドです。
パラメータカウントクラスの8B(16ビット)全精度モデルの14倍小さいにもかかわらず、標準ベンチマークで競争力のある性能を発揮し、さらにはるかに高い効率で動作します。
https://gyazo.com/9c8f79a8251226d18b3bc8a376b36b48
すごいnomadoor.icon
ベンチマーク
https://github.com/ArmanJR/PrismML-Bonsai-vs-Qwen3.5-BenchmarkArmanJR/PrismML-Bonsai-vs-Qwen3.5-Benchmark
実装リポジトリ
https://huggingface.co/prism-ml/Bonsai-8B-ggufprism-ml/Bonsai-8B-gguf
https://github.com/PrismML-Eng/llama.cppPrismML-Eng/llama.cpp
2026/04/06mainブランチのllama.cppにはまだ未実装なので注意
2026/04/07https://github.com/ggml-org/llama.cpp/pull/21273CPU演算のみ(要は遅い)だがmainブランチに実装された
関連
BitNet
#PrismML